Boek - If Anyone Builds It, Everybody Dies
If Anyone Builds It, Everybody Dies is geschreven door Eliezer Yudkowsky en Nate Soares, beiden werkzaam bij het Machine Intelligence Research Institute (MIRI). Dit instituut richtte zich aanvankelijk op de versnelling van AI-ontwikkeling, maar verschoof later de focus naar de risico’s en gevaren die kunstmatige intelligentie met zich meebrengt.
Het boek legt in begrijpelijke taal uit waarom mensen op specifieke taken het afleggen tegenover computers. Zodra een AI evolueert tot een ASI (Artificial Superintelligence), bestaat er momenteel geen manier om de denkwijze of het gedrag van zo’n ASI te sturen. Met andere woorden: we weten niet wat een ASI zal denken of doen.
Door de enorme hoeveelheid data, parameters, waarden en weegfactoren is het zelfs nu al nauwelijks mogelijk om bestaande AI-systemen volledig te doorgronden. Laat staan een superintelligente versie daarvan. De auteurs maken aannemelijk dat een ASI gemakkelijk een richting kan inslaan die niet per se gunstig is voor de mens.
Ik vond het een duidelijk geschreven boek dat een waardevol inkijkje biedt in de wereld van AI-ontwikkeling. Het vormt tegelijkertijd een duidelijke waarschuwing: de mens is niet voorbereid, kan het misschien ook niet zijn, op de komst van een ASI. Daarmee stelt het boek dat het bestaan van de mens mogelijk in gevaar komt.
20 oktober, 2025